2022-09-27
优化器的高效和自动化设计在全栈自动系统中起着至关重要的作用。但是，优化器搜索中的先前方法通常受其可扩展性，生成性或样品效率的限制。为了将优化器搜索的研究和应用民主化，我们提出了第一个有效，可扩展和可推广的框架，可以直接搜索感兴趣的任务。我们首先观察到优化器更新从根本上是数学表达式应用于梯度。受到基础数学表达式的先天树结构的启发，我们将优化器的空间重新安排到一个超树中，每个路径都编码优化器。这样，优化器搜索可以自然地作为路径找到问题，从而使各种建立的树遍历方法可以用作搜索算法。我们采用蒙特卡洛方法的改编来进行树木搜索，配备拒绝采样和等效形式检测，以利用优化器更新规则的特征来进一步提高样本效率。我们提供了一套多种任务，以基于我们的算法进行基准测试，并证明，只有128个评估，提出的框架可以发现超过人类设计的对应方和先前的优化器搜索方法的优化器。
translated by 谷歌翻译
分类器在实践中已被广泛实施，而如何正确评估它们仍然是一个问题。通常，基于混淆矩阵和损失函数分别使用两种类型的指标在灵活性和数学完整性方面具有不同的优势，而它们在不同的困境中挣扎，例如对轻微改进或在不同任务中缺乏可定制性的不敏感性。在本文中，我们提出了一个基于概率预测的抽象表示，以及用于处理多分类中负面类别的目标设计的新颖指标，称为Meta模式关注得分，并降低了度量的离散性，以实现的优势，以实现两种指标都避免了它们的弱点。我们的指标提供了定制性，可以在不同实践中选择特定要求的模型，并确保在传统指标下也可以很好地选择模型。四种模型和六个数据集的评估证明了我们的度量的有效性和效率，案例研究表明，它可以选择模型来减少0.53％的危险错误分类，仅牺牲0.04％的培训准确性。
translated by 谷歌翻译
深神经网络（DNN）分类器容易受到对抗攻击的影响。尽管现有的基于梯度的攻击在馈送前向模型和图像识别任务中取得了良好的性能，但在复发性神经网络（RNN）中的时间序列分类的扩展仍然是一个困境，因为RNN的周期性结构可防止直接模型差异化和模型差异化和对时间序列数据扰动的视觉敏感性挑战了传统的局部优化目标，以最大程度地减少扰动。在本文中，提出了一种有效且广泛的方法，称为TSFool，用于为RNN分类器制定高质量的对抗时间序列。我们提出了一个名为“伪装系数”的新型全球优化目标，以考虑对抗样本在类群中的掩盖程度，因此将高质量的对抗性攻击重新定义为多目标优化问题。我们还提出了一个新的想法，以使用干预的加权有限自动机（IWFA）捕获具有其他特征和潜在歧管之间具有其他性的深层嵌入式脆弱样本，以指导优化解决方案的近似值。进行了22个UCR数据集的实验，以确认TSFool是一种广泛有效，有效且高质量的方法，局部扰动减少了93.22％，全局伪装更好32.33％，对现有方法的加速速度为1.12倍。
translated by 谷歌翻译
本文介绍了一种多模式运动计划（MMP）算法，该算法结合了三维（3-D）路径计划和DWA障碍避免算法。该算法旨在计划复杂的非结构化场景中超越障碍物的机器人的路径和运动。提出了一种新颖的A-Star算法来结合非结构化场景的特征，并将其切换为贪婪的最佳优先策略算法的策略。同时，路径计划的算法与DWA算法集成在一起，因此机器人可以在沿着全球计划的路径运动过程中执行局部动态障碍。此外，当提议的全球路径计划算法与局部障碍算法结合使用时，机器人可以在避免障碍物和克服障碍物后纠正道路。具有几个复杂环境的工厂中的仿真实验验证了算法的可行性和鲁棒性。该算法可以迅速为超越障碍物的机器人生成合理的3D路径，并在考虑场景和运动障碍物的特征的前提下进行可靠的当地障碍。
translated by 谷歌翻译
两栖地面汽车将飞行和驾驶模式融合在一起，以实现更灵活的空中行动能力，并且最近受到了越来越多的关注。通过分析现有的两栖车辆，我们强调了在复杂的三维城市运输系统中有效使用两栖车辆的自动驾驶功能。我们审查并总结了现有两栖车辆设计中智能飞行驾驶的关键促成技术，确定主要的技术障碍，并提出潜在的解决方案，以实现未来的研究和创新。本文旨在作为研究和开发智能两栖车辆的指南，以实现未来的城市运输。
translated by 谷歌翻译
很少有人提出了几乎没有阶级的课程学习（FSCIL），目的是使深度学习系统能够逐步学习有限的数据。最近，一位先驱声称，通常使用的基于重播的课堂学习方法（CIL）是无效的，因此对于FSCIL而言并不是首选。如果真理，这对FSCIL领域产生了重大影响。在本文中，我们通过经验结果表明，采用数据重播非常有利。但是，存储和重播旧数据可能会导致隐私问题。为了解决此问题，我们或建议使用无数据重播，该重播可以通过发电机综合数据而无需访问真实数据。在观察知识蒸馏的不确定数据的有效性时，我们在发电机培训中强加了熵正则化，以鼓励更不确定的例子。此外，我们建议使用单速样标签重新标记生成的数据。这种修改使网络可以通过完全减少交叉渗透损失来学习，从而减轻了在常规知识蒸馏方法中平衡不同目标的问题。最后，我们对CIFAR-100，Miniimagenet和Cub-200展示了广泛的实验结果和分析，以证明我们提出的效果。
translated by 谷歌翻译
联邦学习〜（FL）最近引起了学术界和行业的越来越多的关注，其最终目标是在隐私和沟通限制下进行协作培训。现有的基于FL算法的现有迭代模型需要大量的通信回合，以获得良好的模型，这是由于不同客户之间的极为不平衡和非平衡的I.D数据分配。因此，我们建议FedDM从多个本地替代功能中构建全球培训目标，这使服务器能够获得对损失格局的更全球视野。详细说明，我们在每个客户端构建了合成数据集，以在本地匹配从原始数据到分发匹配的损失景观。与笨拙的模型权重相比，FedDM通过传输更多信息和较小的合成数据来降低通信回合并提高模型质量。我们对三个图像分类数据集进行了广泛的实验，结果表明，在效率和模型性能方面，我们的方法可以优于其他FL的实验。此外，我们证明，FedDM可以适应使用高斯机制来保护差异隐私，并在相同的隐私预算下训练更好的模型。
translated by 谷歌翻译
如何正确对视频序列中的框架间关系进行建模是视频恢复（VR）的重要挑战。在这项工作中，我们提出了一个无监督的流动对准序列模型（S2SVR）来解决此问题。一方面，在VR中首次探讨了在自然语言处理领域的序列到序列模型。优化的序列化建模显示了捕获帧之间远程依赖性的潜力。另一方面，我们为序列到序列模型配备了无监督的光流估计器，以最大程度地发挥其潜力。通过我们提出的无监督蒸馏损失对流量估计器进行了训练，这可以减轻数据差异和以前基于流动的方法的降解光流问题的不准确降解。通过可靠的光流，我们可以在多个帧之间建立准确的对应关系，从而缩小了1D语言和2D未对准框架之间的域差异，并提高了序列到序列模型的潜力。 S2SVR在多个VR任务中显示出卓越的性能，包括视频脱张，视频超分辨率和压缩视频质量增强。代码和模型可在https://github.com/linjing7/vr-baseline上公开获得
translated by 谷歌翻译
在编码的光圈快照光谱压缩成像（CASSI）系统中，采用高光谱图像（HSI）重建方法从压缩测量中恢复了空间光谱信号。在这些算法中，深层展开的方法表现出令人鼓舞的表现，但遭受了两个问题的困扰。首先，他们没有从高度相关的CASSI估计降解模式和不适当的程度来指导迭代学习。其次，它们主要基于CNN，显示出捕获长期依赖性的局限性。在本文中，我们提出了一个原则性的降级感知框架（DAUF），该框架（DAUF）从压缩图像和物理掩码中估算参数，然后使用这些参数来控制每个迭代。此外，我们自定义了一种新颖的半剃须变压器（HST），该变压器（HST）同时捕获本地内容和非本地依赖性。通过将HST插入DAUF，我们为HSI重建建立了第一个基于变压器的深层展开方法，即降解感知的降解 - 降解的半个剃须刀变压器（DAUHST）。实验表明，Dauhst显着超过了最先进的方法，同时需要更便宜的计算和存储成本。代码和模型将在https://github.com/caiyuanhao1998/mst上发布
translated by 谷歌翻译
现有的深度学习真正的denoising方法需要大量嘈杂的清洁图像对进行监督。尽管如此，捕获真正的嘈杂清洁数据集是一个不可接受的昂贵且繁琐的程序。为了减轻这个问题，这项工作研究了如何产生现实的嘈杂图像。首先，我们制定了一个简单而合理的噪声模型，该模型将每个真实嘈杂像素视为随机变量。该模型将嘈杂的图像生成问题分为两个子问题：图像域的比对和噪声域对齐。随后，我们提出了一个新颖的框架，即像素级噪声吸引的生成对抗网络（PNGAN）。 PNGAN使用预先训练的真实DeNoiser将伪造和真实的噪声图像映射到几乎无噪声的解决方案空间中，以执行图像域的对齐。同时，PNGAN建立了一个像素级对抗训练，以进行噪声域的比对。此外，为了获得更好的噪声拟合，我们提出了一个有效的体系结构简单的多尺度网络（SMNET）作为发电机。定性验证表明，就强度和分布而言，PNGAN产生的噪声与真实噪声高度相似。定量实验表明，一系列经过生成的嘈杂图像训练的Denoisers在四个真正的Denoising基准测试中获得了最新的（SOTA）结果。代码，预训练模型和结果的一部分可在https://github.com/caiyuanhao1998/pngan上获得比较。
translated by 谷歌翻译